Gattuso bắt đầu sự nghiệp thi đấu chuyên nghiệp tại Perugia, nhưng tới tháng 6 năm 1997, khi mới 19 tuổi, anh được bán cho Glasgow Rangers của Scotland.

Tháng 10 năm 1998, Gattuso trở lại Serie A thi đấu cho Salernitana với giá chuyển nhượng 4 triệu bảng Anh.

Salernitana xuống hạng vào cuối mùa giải nhưng với phong độ ấn tựong của mình, Gattuso được AC Milan mua lại với giá 8 triệu bảng Anh. Anh nhanh chóng chiếm được một suất trong đội hình chính với lối chơi đầy nhiệt huyết.

Tuy nhiên, sau đó dưới thời của hai HLV Arrigo Sacchi và Fatih Terim, anh không được ra sân trong đội hình chính thường xuyên và hầu hết chỉ được ra sân từ băng ghế dự bị.

Cuối năm 2002, Carlo Ancelotti trở thành HLV trưởng của Milan và tiến hành những công cuộc cải cách mới mạnh mẽ trên toàn bộ chiến thuật và phong cách của đội bóng. Cùng với sự xuất hiện của Pirlo và Seedorf, Gattuso được bố trí là tiền vệ phòng ngự đá bên cạnh Pirlo và làm chốt chặt hiệu quả cho Milan cùng với Ambrosini. Biệt danh "Rino" (tê giác) cũng xuất hiện từ đây. Cùng với Pirlo, Seedorf, Rui Cóta và sau này là Kaka, Gattuso đã tạo nên một trong những hàng tiền vệ được đánh giá là xuất sắc nhất lịch sử bóng đá thế giới.

Gattuso chơi trận chung kết UEFA Champions League lần đầu tiên trong sự nghiệp khoác áo AC Milan vào mùa giải 2002-2003 và giành chức vô địch cùng Milan sau khi chiến thắng trước Juventus trên loạt sút luân lưu.[7]

Mùa giải 2004-05, A.C. Milan lại vào chung kết Cúp C1 năm 2005, song đã thất bại trước Liverpool 4-3 trên chấm luân lưu. Trong trận đấu đó, Gattuso là người phạm lỗi với Baros trong vòng cấm địa để Xabi Alonso đá phạt thành công 11m gỡ hòa 3-3 cho Liverpool.[8]

Gattuso đã chơi trận đấu thứ 300 của mình cho câu lạc bộ trong một không bàn thắng Champions League trước Lille ngày 26 tháng 9 năm 2006, và anh đã gia hạn hợp đồng của anh với Milan cho đến năm 2011 vào ngày 1 tháng 2 năm 2007.[9]

Năm 2007, Milan lại gặp Liverpool trong trận chung kết Champions League đầy duyên nợ, ký ức tại Istanbul hai năm trước đã không lặp lại khi anh cùng Milan đã đánh bại the Kop (biệt danh của Liverpool) với tỉ số 2-1 và giành chức vô địch UEFA Champions League lần thứ 7 trong lịch sử câu lạc bộ.

Anh chơi trận đấu thứ 400 cho Milan vào ngày 22 tháng 8 năm 2009 trước Salernitana tại Serie A với chiếc băng thủ quân trên tay.

Gattuso còn cùng AC Milan giành Coppa Italia 2002-2003, Scudetto mùa giải 2003-2004, Supercoppa Italiana năm 2005.

Trận đấu được đánh giá là hay nhất trong sự nghiệp của Gattuso là chiến thắng 3-0 của A.C.Milan trước Manchester United tại lượt về bán kết UEFA Champions League 2006-2007 trên sân San Siro. Chính sự năng nổ và hiệu quả của anh cùng với khả năng tranh chấp tốt đã khiến hàng tiền vệ của Manchester hoàn toàn không thể kiểm soát được trận đấu, dẫn tới một trong những trận thua đáng thất vọng nhất trong lịch sử của đội bóng Anh này.[10]

Sau khi gia hạn hợp đồng với Milan đến tháng 6 năm 2012, Gattuso đã bị phát hiện mắc một hội chứng rối loạn thị giác chỉ vài ngày trước khi mùa giải 2011-2012 bắt đầu. Vì những ảnh hưởng của hội chứng này, anh buộc phải nói lời chia tay với đội bóng mà mình gắn bó suốt 14 năm vào cuối mùa giải.

Bến đỗ tiếp theo của Gattuso là Sion của Thụy Sĩ, anh ký hợp đồng chơi cho đội bóng này vào tháng 6 năm 2012. Chỉ sau vài tháng, Gattuso đã quyết định bắt đầu sự nghiệp huấn luyện của mình tại Sion với bản hợp đồng mới kiêm nhiệm cả hai vài trò cầu thủ và huấn luyện viên vào tháng 2 năm 2013 trước khi rời câu lạc bộ này vào tháng 5 năm 2013.